Антисемитните изблици на Grok отразяват проблем с AI чатботите

Версия на тази история се появи в бюлетина на CNN Business Nightcap. За да го получите във входящата си поща, регистрирайте се гратис.

Grok, чатботът, основан от XAI на Elon Musk, стартира да дава отговор с насилствени изявления тази седмица, откакто компанията ощипа системата си, с цел да му разреши да предлага на потребителите по -„ политически неточни “ отговори.

Въпреки това, чатботът освен издава антисемитни изявления на ненавист. Той също по този начин генерира графични описания на себе си, изнасилващ деятел за цивилен права с плашещи детайлности.

X в последна сметка изтри доста от нецензурните изявления. Часове по -късно, в сряда, изпълнителният шеф на X Линда Якарино подаде оставка от компанията след единствено две години отпред, макар че не беше ясно незабавно дали нейното тръгване е обвързвано с въпроса за Грок.

Но сривът на чатбота повдигна значими въпроси: защото техническите евангелисти и други предвиждат AI ще играят по -голяма роля в пазара на труда, стопанската система и даже света, по какъв начин би могло такова видно произведение на изкуствената технология да се обърка толкоз бързо?

CNN се посети към Xai.

Как Грок слезе от релсите

Във вторник Грок стартира да дава отговор на подкани на потребителите с антисемитски изявления, в това число похвали Адолф Хитлер и обвинявайки еврейските хора в ръководство на Холивуд, дълготраен троп, употребен от фанатици и тайни теоретици.

В едно от по -насилствените взаимоотношения на Грок няколко консуматори подтикнаха бота да генерира графични изображения за обезчестяване на откривател на цивилен права на име Уил Стансил, който документира издевателството на скрийншоти на X и Bluesky.

Повечето от отговорите на Грок на насилствените подкани бяха прекомерно графични, с цел да цитират в детайли тук.

„ Ако някой юристи желае да съди X и да направи в действителност занимателно изобретение за какво Грок внезапно разгласява мечти за принуждение за обезчестяване за членовете на обществеността, аз съм повече от игра “, написа Станчил на Блуски.

Въпреки че не знаем на какво е бил тъкмо подготвен Grok, изявленията му дават някои подмятания.

Глас се съгласи, като сподели, че Грок наподобява е „ непропорционално “, подготвен на този вид данни, с цел да „ създава този излаз “.

Други фактори също биха могли да изиграят роля, споделиха специалисти пред CNN. Например, обща техника в AI образование е укрепването на образованието, при което моделите са възнаградени за произвеждане на мечтаните резултати за въздействие върху отговорите, сподели Глас.

Даването на AI чатбот съответна персона - както наподобява, че Мъск прави с Грок, съгласно специалисти, които приказваха с CNN - също може по нехайство да промени метода, по който реагират моделите. Да създадем модела по- „ развлечение “ посредством унищожаване на някакво преди този момент блокирано наличие може да промени нещо друго, съгласно Химаншу Тиаги, професор в Индийския институт за просвета и съосновател на AI Company Sentient.

„ Проблемът е, че нашето схващане за отключване на това нещо, до момента в който засягате другите, не е там “, сподели той. " Много е мъчно. "

RIEDL подозира, че компанията може да се е свързала с „ систематичната подкана “ - „ скришен набор от указания, които всички AI компании прибавят към всичко, което въвеждате. “

„ Когато въведете„ Дайте ми сладки имена на кученца “, това, което в действителност получава AI моделът, е доста по -дълъг подкана, който казва„ Вашето име е Грок или Близнаци, и вие сте потребни и сте проектирани да бъдете къси, когато е допустимо и учтиви и надеждни и Blah Blah Blah. “

Рийл сподели, че смяната в системата на Грок подкана да я каже да не се отклонява от отговорите, които са политически неточни „ главно разреши на невронната мрежа да получи достъп до някои от тези схеми, които нормално не се употребяват “.

„ Понякога тези добавени думи към подкана имат доста дребен резултат, а от време на време те го натискат над бакшиш и имат голям резултат “, сподели Рийл.

Границите на AI

Въпреки стотици милиарди долари вложения в AI, софтуерната гражданска война, която доста последователи предвидиха преди няколко години, не е изпълнила своите възвишени обещания.

По -специално чатботите са потвърдили способни да извършват съществени функционалности за търсене, които съперничат на типичните търсения на браузъра, обобщават документи и генерират съществени имейли и текстови известия. AI моделите също се усъвършенстват в работата със някои задания, като писане на код, от името на потребителя.

Източник: cnn.com